TRACER: Balancing Stability-Plasticity-Cognitivity Trilemma for LLM Enhanced Continual Recommendation
TRACER:平衡 LLM 增强持续推荐的稳定性-可塑性-认知性三元悖论
🧭 LLM 增强的持续推荐 · SPC 权衡 ★ 深度解读
Pohang University of Science and Technology · University of Illinois Urbana-Champaign · Korea University
提出 TRACER,通过 Procrustes 初始化、置信门控+LoRA 推理、梯度同步 guidance,在 LLM 增强持续推荐中同时缓解遗忘、适应与语义偏置
📌 工作参考价值(4 点)
- 在持续推荐/流式更新中引入 LLM 语义 embedding 时,不要无脑 concat 或全量微调 adapter:建议按初始化/推理/损失三处分别设计约束。冷启动 item/user 可用正交 Procrustes 将语义 embedding 旋转到已有 ID 协同空间,再做局部邻居校准,避免语义空间与协同空间坐标系不一致。
- 线上 serving 用 LLM 语义特征时,可加 confidence gating + LoRA 低秩更新 adapter。按曝光频率门控:高冷实体更多注入语义,热门实体更多信任 ID 协同;跨 stage merge LoRA residual、冻结 bias,防止语义主导 ID 学习。
- 训练目标里做语义对齐时,先计算 rec loss 与 semantic guide loss 的实体级梯度 cosine;同向才开启 semantic guide,反向则切换为对上一轮参数的 retrospective regularization(已有实体)或直接只学 rec(新实体)。这比固定权重蒸馏更能保护历史和新兴趣。
- 评估 LLM 增强持续推荐时别只看整体 NDCG;建议补 BWT/TRG/SRT 类指标,分别监控历史遗忘、新兴趣适应、语义先验贡献,避免出现 KAR/LLM-ESR 式语义过拟合而 TRG 很低的问题。